16 artykułów
84 proc. wszystkich gospodarstw na świecie to smallholders. AI może zrewolucjonizować rolnictwo, ale dane, które modeli trenują, pochodzą chiefly z wielkich przedsiębiorstw. Konsekwencje tego podziału zaczynają być widoczne.
Systemy oceny ryzyka recydywy wspierają sądy przy decyzjach o areszcie i wymiarze kary, ale ich wyniki bywają obciążone historyczną dyskryminacją — a strona oskarżona często nie może ich zbadać.
Systemy AI do rekrutacji klasyfikowane jako high-risk w rozporządzeniu UE o AI. Algorytmy dziedziczą historyczne uprzedzenia, a ofiary często nie wiedzą, dlaczego zostały odrzucone. Prawo zaczyna nadganiać technologię.
Coraz więcej firm powierza selekcję CV systemom AI. Gdy algorytm odrzuci kandydata, trudno ustalić, dlaczego — i kto ponosi odpowiedzialność.
Systemy scoringowe oceniają wnioskodawców w kilkadziesiąt sekund, ale odmowa bywa dziełem statystyki, a nie człowieka. Skąd biorą się dyskryminujące decyzje i jakie narzędzia obrony daje prawo Unii Europejskiej.
Badanie Uniwersytetu Waszyngtońskiego: ludzie z rekomendacjami AI przejmują ich uprzedzenia — przy silnej stronniczości około 90 procent czasu. Pytanie nie brzmi, czy AI jest uprzedzone, ale jak wpływa na nas.
Badacze ze Stanforda przeanalizowali 4 miliony podanych o pracę ocenianych przez jedno narzędzie AI. Wynik: system zawyżał ryzyko dyskryminacji rasowej, a monokultura algorytmiczna sprawia, że odrzucenie w jednej firmie powiela się we wszystkich kolejnych.
Systemy AI w rekrutacji obiecują obiektywność, ale często utwarzają uprzedzenia historyczne. Analiza mechanizmów dyskryminacji, braków prawnych i sposobów na audit algorytmów zatrudniających.
Systemy ATS i narzędzia AI do rekrutacji odrzucają kandydatów zanim człowiek zobaczy ich CV. Kryteria oceny są nieprzezroczyste, a skargi — niemal niemożliwe do złożenia.
Systemy sztucznej inteligencji coraz częściej filtrują kandydatów do pracy. Oszczędzają czas rekruterów, ale mogą utrwalać uprzedzenia i odrzucać osoby z grup niedostatecznie reprezentowanych w danych treningowych.
Systemy AI analizujące mikroekspresje twarzy i ton głosu w rozmowach kwalifikacyjnych wideo budzą coraz większe obawy ekspertów od praw człowieka. Jak działają, co mierzą i dlaczego mogą dyskryminować.
Algorytmy oceny wiarygodności kredytowej mogą utrwalać i wzmacniać nierówności — zwłaszcza wobec mniejszości i osób o niższych dochodach.
Badanie empiryczne z 2025 roku pokazuje, że modeli LLM systematycznie faworyzują CV, które same wygenerowały. Kandydaci używający tego samego modelu co oceniający mają even 60 proc. więcej szans na przejście do kolejnego etapu.
Firmy ubezpieczeniowe używają AI do kalkulacji cen ubezpieczenia. Algorytmiczna dyskryminacja w ubezpieczeniach samochodowych stwarza poważne ryzyko dla konsumentów.
Algorytmy rozpoznawania obrazów wyceniają polisy na podstawie zdjęć domu i samochodu, rozliczają szkody po kilkunastu fotografiach z telefonu i zasilają automatykę smart home, która zdradza ubezpieczycielowi szczegóły codziennego życia. Gdzie w tym wszystkim jest człowiek i co z prywatnością?
Kandydat odrzucony ze ponad stu miejsc pracy, często w kilka minut i bez kontaktu z człowiekiem. Sąd uznał, że dostawca systemu rekrutacyjnego może ponosić odpowiedzialność za dyskryminację tak samo jak pracodawca — a pozew zbiorowy obejmuje już około 1,1 miliarda przetworzonych aplikacji.